Περιγραφή

Το μάθημα αποσκοπεί στο να παράσχει στο σπουδαστή βασικές γνώσεις της θεωρίας πληροφοριών και κωδίκων. Οι γνώσεις αυτές θεωρούνται απαραίτητες για τη μελέτη και ανάλυση τηλεπικοινωνιακών συστημάτων καθώς και για την κατανόηση τεχνικών κωδικοποίησης δεδομένων που στοχεύουν είτε στην συμπίεση δεδομένων είτε στην αντιμετώπιση των συνεπειών του θορύβου. Μετά την παρακολούθηση του μαθήματος οι σπουδαστές θα πρέπει να μπορούν:

• Να εκτιμούν την πληροφορία που περιέχει έχει σύνολο δεδομένων.
• Να υπολογίζουν την εντροπία μίας πηγής πληροφορίας.
• Να υπολογίζουν τη χωρητικότητα ενός απλού δίαυλου πληροφορίας.
• Να κατανοούν τους περιορισμούς στους οποίους υπόκειται κάθε τεχνική κωδικοποίησης δεδομένων.
• Να αναγνωρίζουν τα πλεονεκτήματα και μειονεκτήματα διαφόρων απλών κωδίκων ανίχνευσης και διόρθωσης σφάλματος.

Περιεχόμενα

• Μέτρο της πληροφορίας. Μέση πληροφορία – Εντροπία
• Πηγή πληροφορίας. Σύνθετη πηγή πληροφορίας.
• Συνδετική και υπό συνθήκη εντροπία. Διαπληροφορία.
• Δίαυλος πληροφορίας και χωρητικότητα διαύλου.
• Εντροπία θορύβου. Εντροπία διαύλου.
• Χαρακτηριστικοί δίαυλοι πληροφορίας.
• Υπολογισμός χωρητικότητας με την τεχνική Muroga.
• Κωδικοποίηση και βασικές κατηγορίες κωδίκων.
• Μέσο μήκος κώδικα. Βέλτιστος κώδικας
• Αθόρυβη κωδικοποίηση – 1ο θεώρημα Shannon.
• Απλοί κώδικες μεταβλητού μήκους.
• Ενθόρυβη κωδικοποίηση – 2ο θεώρημα Shannon.
• Κώδικες ανίχνευσης και διόρθωσης σφαλμάτων.
• Κυκλικοί κώδικες

Νέα

• Καλοσωρίσατε στην σελίδα του μαθήματος ΠΛΥ05021!

Εκπαιδευτικό Υλικό

Τρόπος Αξιολόγησης

Η αξιολόγηση των φοιτητών βασίζεται αποκλειστικά σε τελική γραπτή εξέταση στο τέλος του εξαμήνου.

Βασική Βιβλιογραφία

• “Θεωρία της Πληροφορίας”, Ιωάννης Ρέκανος. PDF

Συμπληρωματική Βιβλιογραφία

• “Εισαγωγή στη θεωρία πληροφορίας”, Αφράτη Φώτω.
• “Θεωρία πληροφοριών – Κώδικες”, Δημήτριος Βούκαλης.